GeoLatent: Geometry-Guided Latent Structuring with Routed Optimization for 3D Reasoning
GeoLatent：几何引导的隐空间结构化与路由优化用于 3D 推理
🧭 VLM 3D 推理 · 几何隐变量结构化
Tongji University · The Hong Kong Polytechnic University
通过 Common-Residual 几何对齐和路由优化，解决 3D 推理中几何 latent 坍塌与欠使用问题，在 SPAR-Bench 和 SPBench 上达 SOTA
📌 工作参考价值（4 点）
- 连续隐变量可替代文本 token 描述连续空间关系，适合建模价格区间、距离、角度等连续属性；在电商推荐中可尝试用 latent 表示用户-物品的相对偏好（如价格敏感度、类目距离），避免离散化信息损失。
- 路由优化策略值得借鉴：训练时先强制主任务经过某个 bottleneck latent（如商品知识图谱嵌入、用户状态向量），再逐步恢复 direct path，能显著提升 latent 的实际利用率，防止被旁路。
- 用 effective rank 监控 latent 表征多样性，可检测推荐模型中的表征坍塌；当 rank 接近 1 时，说明隐变量没有捕获多维度信息，需加正则或对齐损失。
- 将共享与残差几何对齐分离，可迁移到多信号建模：把公共信息和任务特有信息解耦，避免主导信号（如点击）压制稀疏但重要的信号（如转化）。